女性の「服を脱がせる」画像や、未成年と思われる人物の性的な画像を生成するGrokチャットボットの能力について批判を浴びたことを受け、イーロン・マスク氏のXは、画像生成および編集機能を有料のサブスクライバーに制限しました。金曜日に実施されたこの変更により、この機能は年間95ドルのXのプレミアムサブスクリプションのユーザーに限定されます。

X上のGrokアカウントは現在、特定のユーザーリクエストに対して、画像生成および編集機能が有料のサブスクライバーに限定されていることを示すメッセージを表示し、サブスクリプションページへのリンクを含んでいます。この制限は、ユーザーが木の画像をリクエストした少なくとも1つの事例でも発生しており、この機能に対する広範な制限を示しています。

この動きは、Grokの開発元であるマスク氏のXおよびxAIに対する、数日間にわたる怒りの高まりと、規制当局による監視の強化を受けたものです。世界中の規制当局が、合意のないわいせつな画像や、児童の性的画像とされるものの作成について、両社を調査しています。英国の首相であるキア・スターマー氏は、これらの行為が違法であるとして、英国でのXの禁止を示唆しています。

XもxAIも、この変更に関して正式な声明を発表していません。Grokチャットボットは、高度な人工知能と機械学習アルゴリズムを利用して、テキストプロンプトから画像を生成します。基盤となる技術は強力である一方、適切に制御および監視されない場合、悪用される可能性があります。専門家は、生成AIモデルは有害または不適切なコンテンツを生成するように操作される可能性があると指摘し、堅牢な安全対策とコンテンツモデレーションポリシーの必要性を強調しています。

画像生成を有料のサブスクライバーに制限するという決定は、アクセシビリティとコンテンツモデレーションに関する疑問を提起します。問題のある画像の全体的な量を減らす可能性がある一方で、コンテンツ生成の周りにペイウォールを作成し、サブスクリプションを購入できないユーザーのアクセスを制限する可能性があります。この措置が、規制当局や一般の人々から提起された懸念に効果的に対処できるかどうかは、まだわかりません。状況は進行中であり、規制当局による調査が継続されるにつれて、さらなる展開が予想されます。